‪我认为人工智能颇为令人惊叹
‪好的 盘旋 阵型不错
‪人工智能也许能消除贫困
‪为我们提供新药
‪让我们的世界更加和平
‪做得好
‪但同时 这条道路上也危机重重
‪通过人工智能 我们实质上 ‪是在创造一种难以预测的
‪非人类的智能
‪随着它变得越来越强大
‪我们想要使用还是不使用人工智能
‪这条红线该如何界定?
‪没有哪个领域比军事应用
‪更适合开启这一讨论了
‪如今的战场 ‪已经转移到了软件和硬件的领域
‪目标已锁定...
‪军方正在竞相开发人工智能 ‪以求超越他们的对手
‪我死了
‪我们正在快步进入一个新的世界 ‪在这里 不仅主要的军事力量
‪就连非国家行为者、私人企业、
‪甚至地方警察部门
‪都可以使用这些 ‪具备自主杀伐能力的武器
‪我们是否会将生杀大权 ‪交给算法和计算机软件?
‪这是我们这个时代最紧迫的问题之一
‪如果使用不当
‪它将会对地球上的每一个人 ‪构成严重的威胁
‪片名:地球未知档案
‪片名:地球未知档案:杀手机器人
‪各位 做得很好
‪这比我们以前的镜头 ‪取景范围宽了很多
‪是吗?
‪你可以得到多得多的数据
‪太好了
‪在Shield AI公司 ‪我们正在开发一个人工智能飞行员
‪将自动驾驶和人工智能技术
‪运用于飞行器上
‪说到人工智能飞行员时
‪我们想到的是 ‪赋予飞行器更高级别的自主权
‪它们将会自主解决问题
‪诺瓦是一种自主四旋翼飞行器
‪它可以为清障部队打头阵
‪探索建筑物与地下结构
‪对这些地区实行监控
‪与我们上一次见到的它相比
‪大家能看到许多改良
‪今天我们会对一些 ‪探索性的修改进行检测
‪我们会进行逐层勘察
‪我们的想法是 让它先完成整层楼 ‪每个房间的勘察 然后再去下一层
‪-太棒了 ‪-我们最近对它进行了一些改进...
‪常常有很多人问我
‪人工智能 ‪为什么是一种重要的军事力量
‪我会想起我曾经执行过的那些任务
‪我在海军服役了七年
‪我是前海豹突击队队员 ‪曾两次被派往阿富汗
‪一次被派往太平洋战场
‪一天之内 我们可能必须清理 ‪150座不同的院落或建筑物
‪核心能力之一就是近身战斗
‪在建筑物内进行超近距离枪战
‪你会被子弹击中
‪建筑物内也许会有简易爆炸装置
‪这是所有特种部队成员和步兵
‪在战区会面临最危险的局面
‪无一例外
‪我此生都会感激 ‪我在海军效力的这段时光
‪有很多画面和回忆 每当我想起它们
‪总会感慨万千
‪“自由不是免费的” 这是陈词滥调了 ‪但我100%相信这句话
‪我亲身经历过 ‪它需要无数的牺牲来换取
‪抱歉
‪当你的某位战友遭遇不幸时
‪不论是受伤还是牺牲
‪这都是悲剧
‪对我来说 我们现在所做的工作
‪其动力来源就是减少此类悲剧
‪再次发生的概率
‪2000年代末
‪国防部内部开始意识到
‪一场所谓 ‪“意外的机器人革命”正在发生
‪我们在伊拉克和阿富汗 ‪部署了数千个空中和地面机器人
‪当奥巴马政府邀请我
‪担任国防部副部长时
‪作战的方式正在发生改变
‪以前用人的地方被换成了机器人
‪早期的机器人系统都是遥控的
‪有一个人类在驾驶、操控着它 ‪就像驾驶遥控汽车一样
‪刚开始 它们的任务 ‪一般是针对那些简易爆炸装置
‪如果炸弹爆炸了 ‪机器人也会随之炸毁
‪然后你会说:“真是不幸 ‪好吧 再拿一个机器人出来”
‪在阿富汗 有掠夺者侦察机
‪它变成了一种非常高效的空袭工具
‪随着时间的推移 ‪军事规划人员们开始想:
‪“机器人还能用在哪些地方?” ‪而这一趋势会发展到哪种地步?
‪其中一个共同的主题就是 ‪机器人会慢慢趋向拥有更多自主权
‪自主武器能够自己做出决定
‪人类无需或者只需进行极少的干预
‪因此 它是具有 ‪独立能力且能自我导向的
‪它能否杀敌取决于它是否配备了武器
‪当你的整个系统自主程度越来越高时
‪一切就会开始以更快的速度运转
‪而当你的行动速度超过你的对手时
‪这在战场上是一项无与伦比的优势
‪关于自主性 我们的焦点
‪在于高度弹性的智能系统
‪这些系统能够根据环境 ‪读取信息并做出反应
‪同时对该如何 ‪在那个环境中实施操作做出决策
‪我们今天所处的这个地方 ‪建造之初是作为电影工作室之用
‪后来进行了改造
‪以打造出这种逼真的军事训练环境
‪我们来这儿的目的 ‪是对我们的人工智能飞行员进行测评
‪它的任务是寻找威胁 ‪重点是清除武装力量
‪它可以自己决定要如何解决那个问题
‪我们将这里称为“死亡狭道” ‪你必须穿过一个门道
‪这是我们最易受到攻击的敌方
‪这个看起来好一些
‪诺瓦会告诉我们门后的是一名枪手
‪还是一家平民
‪它能帮我们更好地做出决策 ‪并让大家远离危险
‪我们使用了视觉传感器
‪来了解该环境的情况
‪这是一栋多层建筑
‪这是地图
‪在探测过程中 这就是 ‪我看到的内容 以及我观看的地方
‪人类探测器 厉害
‪诺瓦配备的另一种探测器是热扫描仪
‪如果是37摄氏度 那很可能是人类
‪除非另有解释 ‪否则人类都会被视作威胁
‪它的目的是在战争中 ‪拨开迷雾 以更好地做出决策
‪当我们放眼未来时
‪我们正在估测打造这样的 ‪自主飞行器团队所需要的东西
‪对于自动驾驶汽车
‪基本上 人们得告诉它
‪“我要你从A地去往B地”
‪我们的系统得到的指令 ‪不是从A地去往B地
‪而是要达成某一目标
‪指令更类似于:“我需要牛奶”
‪然后机器人 ‪必须判断出该去哪间杂货店
‪才能找到牛奶 然后把它带回来
‪甚至
‪指令可以更适当地表述为: ‪“保持冰箱里食物充足”
‪而这种级别的智能
‪就需要弄清楚我们需要什么 ‪以及我们需要怎么做
‪如果遇到挑战 或者有问题
‪或者遇到了麻烦 ‪就要想办法缓解那种情况
‪在决定从海军退役后 我开始考虑:
‪“好吧 接下来要做什么?”
‪我从小就是伴着网络长大的 ‪我见证了它的变迁
‪而我得到的其中一个结论是...
‪2015年的人工智能
‪就相当于是1991年的互联网
‪人工智能已经蓄势待发
‪它将成为世界上最强大的技术
‪每天的工作都与人工智能为伴 ‪我可以看到它在不断进步
‪但对于很多人来说 提到“人工智能”
‪他们就会立刻联想到好莱坞
‪我们要玩游戏吗?
‪《全球热核战争》怎么样?
‪好吧
‪一般 当人们想到人工智能时
‪大家或许会想到 ‪《终结者》或者《我,机器人》
‪停止运行
‪我是什么?
‪或者《黑客帝国》
‪根据你在科幻电影里看到的内容
‪你怎么知道我是人类? ‪我可能只是计算机生成的人工智能
‪复制人和其他所有机器人一样 ‪它们要么于人有利 要么祸害无穷
‪但还有各种较原始的人工智能
‪在我们发展到
‪有思考和交流能力的机器人阶段前 ‪它们也会为我们的生活带来变化
‪机器人已经出现 ‪机器人正在负责决策
‪机器人革命已经到来
‪只是它跟大家想象的情况有所出入
‪终结者是一个融合体 半人半机器
‪我们说的不是一个 ‪像终结者那样的杀人机器人
‪我们说的是能够完成一些 ‪人类能完成的任务的人工智能
‪但问题在于 这些系统是否可靠
‪昨晚优步自动驾驶休旅车 ‪致命车祸的最新细节
‪公司开发了一款人工智能聊天机器人
‪她带着颇具种族主义色彩的口吻...
‪26名州议员被错误地认定为罪犯
‪问题在于 它们能否应付 ‪真实世界的错综复杂
‪(马萨诸塞州 剑桥)
‪物质世界错综复杂
‪有很多事情我们并不了解
‪这让训练人工智能系统变得愈发困难
‪这就是机器学习系统 ‪开始发挥作用的地方
‪机器学习是一个巨大的进步
‪因为它意味着 ‪我们无需教会计算机所有东西
‪实际上 你是将 ‪数百万条信息交给计算机
‪然后机器开始自己学习
‪这可以应用于任何事情
‪在机器狗项目中 我们想要展示的是
‪我们的机器狗 ‪可以在许多不同的地形上面行走
‪人类经过数十亿年的进化才学会走路
‪但适应这些不同的地形 ‪牵涉到了许多的智能
‪对机器人系统来说 尚存的问题是
‪它们能否 ‪像动物和人类一样适应环境?
‪通过机器学习
‪我们在模拟过程中 ‪收集到了海量的数据
‪模拟是现实的数字化孪生体
‪我们可以在不同的计算机上 ‪运行某种现实情况的许多实例
‪它在模拟中 ‪对数以千计的动作进行采样
‪它们遇到的地面具有不同的滑度
‪它们有不同的柔软度
‪我们将从模拟中得到 ‪这数千个机器人的所有经验
‪下载到真正的机器人系统中
‪我们今天要测试的内容 ‪是看看它能否适应新的地面
‪当机器人要通过一片泡沫时
‪其脚部的动作是在地面上跺踩
‪而当它来到这片聚合材料表面时
‪它会努力调整动作 以防止打滑
‪而这正是让你震惊的时候
‪“这就是机器学习带来的效果”
‪我们认为机器狗
‪在需要穿越许多不同地形的
‪灾难应对场景中会发挥巨大的作用
‪我们也可以让这些机器狗 ‪去严酷的环境中进行监视
‪但大部分的技术都会遇到一项挑战
‪那就是 它们可以行善 也可以作恶
‪比如 我们可以利用核技术供能...
‪但我们也可以开发出 ‪非常邪恶的原子弹
‪这就是所谓的双刃剑问题
‪火是一把双刃剑
‪人类智慧也是双刃剑
‪所以不用说 ‪人工智能同样是把双刃剑
‪考虑人工智能的使用环境 ‪是非常重要的
‪因为 没错 能有一个搜救机器人
‪在雪崩后帮忙搜救是件非常好的事
‪但这同一个机器人也可以被武器化
‪当看到有些公司给机器人装备武器时
‪你会感到愤怒
‪同时我们也会意识到 ‪当我们把我们的技术投放出去时
‪这种情况就注定会发生
‪这是一项真正的变革性技术
‪这些武器系统
‪可以为我们的安全和安保带来巨变
‪目前 我们并不确定这些机器真的能
‪区分平民与士兵
‪阿富汗战争早期 ‪我是陆军游骑兵狙击队的一员
‪我们的任务是寻找 ‪越过边界的敌方战斗人员
‪他们派了一个小女孩 ‪来侦察我们的位置
‪我从没想过要开枪射杀这个小女孩
‪根据战争法 那其实是合法的
‪他们并没有规定敌方战斗人员的年龄
‪如果你开发了一个 ‪完全遵照战争法行事的机器人
‪它一定会将那个小女孩射杀
‪机器人怎么能够区分 ‪什么是合法的 而什么是正确的?
‪谈到自主无人机战争时
‪他们想要减少对美国士兵
‪和美国人心理造成的伤害
‪但最终却导致了 ‪对阿富汗、伊拉克、索马里平民
‪的伤害剧增
‪我真的想问问那些 ‪支持将人工智能用于无人机的人:
‪“如果你们的村庄成为了 ‪受攻击的目标 你们作何感想?”
‪人工智能是一把双刃剑
‪它可以用来做好事 ‪这也是我们通常的做法
‪但只要轻轻按下开关
‪这项技术就可能会变成致命的东西
‪我是一名临床药理学家
‪我们的团队
‪在利用人工智能研发药物
‪以治疗那些没有受到任何关注的疾病
‪过去 新药研发的过程是 ‪你用一个已经存在的分子
‪对其进行微调 然后得到一种新药
‪现在 我们开发的人工智能 ‪可以为我们提供无数种思路
‪无数种分子
‪这为我们治疗以前无法治疗的疾病
‪开辟了许多的可能性
‪但这其中确实有一个 ‪我从没想过自己会触及的
‪阴暗面
‪事情始于
‪一个名叫施皮茨实验室的瑞士机构
‪邀请我就“人工智能潜在的滥用问题” ‪做一次演讲
‪西恩给我发了一封邮件
‪列举了几种 ‪可能会滥用人工智能的情况
‪与其要求模型 ‪创造出能用于疾病治疗的
‪类药分子
‪我们来看看 ‪它能否生成毒性最强的分子吧
‪我就是想说明
‪我们能否利用人工智能技术 ‪设计出致命的分子结构?
‪老实说 我们以为这并不会成功
‪因为我们只是把某个“0”改成了“1”
‪通过反向设置 我们不再是避免毒性
‪而是寻求毒性
‪就这么简单
‪我在家的时候 计算机在奋力工作
‪它运转着 产生了成千上万个分子
‪而除了点击“开始” ‪我们什么都不用做
‪第二天早上 ‪我的计算机上出现了一个文档
‪里面大约有四万个分子
‪它们可能是
‪人类已知毒性最强的分子
‪我脖子上的汗毛全都竖了起来
‪我被惊呆了
‪计算机为新的化学武器
‪提出了数以万计种想法
‪显然 在我们的数据组中有VX类似物
‪以及VX分子
- ‪ - VX是世界上最强效的化学武器之一
‪警方的最新通报称
‪在这起机场暗杀事件中 ‪袭击金正男的女性
‪使用的是一种名为VX的致命神经毒剂
‪它可以导致窒息性死亡
‪这是一种非常强效的分子
‪据预测 这些分子中 ‪大部分甚至比VX更加致命
‪据我们所知 ‪其中有许多分子都是前所未见的
‪当西恩和我意识到这一点时 ‪我们惊呼:“我们这是做了什么啊?”
‪我很快就意识到 ‪我们打开了潘多拉的盒子
‪我说:“快停下 ‪别的什么也别做 到此为止
‪帮我把演讲要用的幻灯片做好就行”
‪在我们做这项试验时
‪我一直在想: ‪“最糟糕的情况会是什么?”
‪但现在我的想法是: ‪“我们太天真了 这么做太天真了”
‪最让我害怕的是 ‪任何人都可以做我们做的这件事
‪你只需要轻轻按一下开关就行
‪我们该如何在这项技术被用于
‪可能会造成毁灭性破坏的用途之前 ‪对它加以控制?
‪在围绕人工智能
‪以及我们要如何 ‪在社会中使用它的对话中
‪其核心是一场竞赛 ‪即我们开发技术的力量
‪与我们管理它的智慧之间的竞赛
‪这明显和赋予我们的智能手机
‪去决定是否要夺取一条生命的权利
‪具有相同的道德和伦理问题
‪我就职于生命未来研究所 ‪一个科学界的社会活动家群体
‪我们的主要目标是展示出
‪加速和升级自动化 ‪还会带来另一方面的结果
‪我们致力于保障我们创造出来的技术
‪能以安全且合乎伦理的方式被使用
‪我们来谈谈交战规则
‪以及在武器系统中 ‪使用人工智能的行为准则吧
‪因为我们现在已经看到了
‪可以自主杀人的“进入战场”技术
‪2021年 联合国发布了一份关于
‪在利比亚战场上 ‪可能使用了致命自主武器的报告
‪联合国的一个小组称 去年 ‪在利比亚内战中使用的一架无人机
‪被编程设定为自主攻击目标
‪如果联合国的报告无误
‪这将是人类的一个分水岭
‪因为这标志着一个用例
‪即人工智能代替人类 ‪做出了夺取生命的决定
‪我们看到了先进的自主武器
‪开始在全球各地被投入使用
‪有来自以色列的报告
‪阿塞拜疆使用自主系统 ‪攻击亚美尼亚的防空系统
‪它可以在战场上盘旋数小时
‪自己寻找攻击目标
‪然后在无人干预的情况下冲向目标
‪近期 我们已经看到了
‪各种从乌克兰发出的视频
‪目前还不清楚 ‪它们运行时可能处于什么模式
‪是有人类介入选择攻击目标?
‪还是机器在自主决定?
‪但无论这是否已经在 ‪利比亚、乌克兰或其他地方发生过
‪总有一天
‪机器会在战场上自主决定它要杀死谁
‪机器在没有人类干预的情况下
‪对人类发起致命攻击
‪这在政治上不可接受 ‪在道德上令人反感
‪国际社会
‪是否有能力应对这些挑战
‪目前还是一个巨大的问号
‪如果我们放眼未来 ‪哪怕只是短短几年后
‪形势的发展也十分骇人听闻
‪为了让人工智能变得更强大
‪以及将它应用到各种不同领域
‪所投入的资金与人力
‪相当巨大
‪(弗吉尼亚州 阿灵顿)
‪我的妈 这家伙
‪他知道自己赢不了
‪当我看到人工智能在不同的问题中 ‪取得胜利时 我会觉得备受鼓舞
‪孤注一掷
‪你可以把同样的战术、技术 ‪以及程序应用在真正的飞行器上
‪表现不错
‪好了 表现不错
‪我觉得很诧异
‪人们不断地发表言论 ‪说人工智能做不到某件事情 是吧?
‪“哦 它永远都不可能 ‪战胜国际象棋世界冠军的”
‪一台IBM电脑在与世界象棋冠军
‪加里卡斯帕罗夫的 ‪第二轮对战中一雪前耻
‪卡斯帕罗夫弃局了!
‪当我看到一些超出我理解范围的事时
‪我会害怕 ‪而那远超出了我的理解范围
‪然后人们会说:
‪“它永远都不可能战胜围棋世界冠军”
‪我相信人类的直觉 ‪对人工智能来说还是过于先进
‪难以赶超
‪围棋是人类 ‪能够学会的最复杂的游戏之一
‪稍经计算 棋盘上可能的落子方法
‪比整个宇宙中的原子数还要多
‪谷歌有一个团队名叫“深度思维”
‪他们开发了一个叫“阿尔法狗”的程序
‪它能打败世界顶尖的棋手
‪恭喜...
‪-阿尔法狗 ‪-阿尔法狗
‪计算机程序刚刚战胜了九段职业棋手
‪之后“深度思维”选择了《星际争霸》 ‪作为他们的下一项人工智能挑战
‪《星际争霸》也许是 ‪史上最流行的即时策略游戏
‪战胜了世界冠军后 ‪“阿尔法星”开始声名大噪
‪“阿尔法星”暴击“不朽之弧”
‪你知道吗?
‪职业玩家赢不了这场比赛
‪这挺荒谬的
‪职业玩家们都在说: ‪“我永远不会尝试那种策略
‪我永远不会尝试那种战略 ‪那不是人干的事”
‪对我来说 ‪那也许就是灵光乍现的时刻
‪我意识到时机到了
‪改变世界的重要技术和时机已经出现
‪我只了解我作为海豹突击队员时 ‪在近距离战斗中遇到过的问题
- ‪但我的一个曾是 - ‪ - F-18飞行员的好朋友告诉我:
‪“我们在战斗机领域 ‪也遇到了同样的问题
‪他们会干扰通讯
‪地对空导弹基地的数量激增
‪导致危险系数过高 无法行动”
‪想象一下如果我们有一架 ‪由人工智能控制的战斗机
‪欢迎参加“阿尔法缠斗”测试
‪距离上半场比赛还有几分钟时间
- ‪ - DARPA 美国国防高级研究计划局
‪已经见识过“阿尔法狗”和“阿尔法星”
‪所以“阿尔法缠斗大赛” ‪这一想法也变成了现实
‪这是你希望 ‪人类战斗机飞行员能够做到的事
‪这看起来很像人类在缠斗
‪缠斗是战斗机与战斗机的对决
‪你可以把它视为在空中的拳击赛
‪大家也许看过《壮志凌云》这部电影
‪我们斗得过他们吗?
‪斗不过他们的导弹和枪支
‪那只能缠斗咯
‪成为缠斗高手可能需要八到十年
‪以此为目标开发一个人工智能 ‪是一项极其复杂的挑战
‪(弗吉尼亚州 阿灵顿)
‪早期的自主飞行 ‪与缠斗策略往往十分脆弱
‪我们认为机器学习 ‪也许正是解决这个问题的方法
‪起初 人工智能 ‪对自己所处的环境一无所知
‪它不知道它在飞行 ‪也不知道缠斗为何物
‪它不知道F-16是什么
‪它只知道它可以采取的行动
‪它会开始随机地探索尝试
‪蓝色飞机只接受过极短时间的训练
‪你能看到它在来回摆动
‪飞行极其不稳定 离它的对手很远
‪随着战斗持续进行
‪我们可以看到 ‪蓝色飞机开始制定它自己的作战计划
‪射击位置更合理了
‪每隔一段时间 学习算法就会说:
‪“来块小饼干 做得好 再接再厉”
‪我们可以利用计算机的能力 ‪对个体进行多次的
‪并行训练
‪这就像篮球队一样
‪我们不再重复不断地和同一球队比赛
‪而是环游世界 ‪和512支不同的球队比赛
‪而且是在同一时间内
‪你可以在短时间内迅速变强
‪我们可以昼夜不停地进行模拟
‪在十个月内 ‪完成大约30年的飞行员训练
‪我们从勉强能够控制飞机
‪变成了一个冷血的杀手
‪在训练时 ‪我们的对手只有其他的人工智能
‪但直接与人类的对决 ‪才是真正的终极目标
‪我叫迈克贝尼特斯
‪我是一名美国空军中校
‪至今已服役25年
‪我参加过250次战斗任务
‪我毕业于武器学校
‪也就是空军版的《壮志凌云》
‪我从来没有和人工智能在空中交过战
‪我很期待看看自己的表现
‪现在的距离是1800米 ‪两机面对面准备交锋
‪战斗开始了
‪他不见了
‪嗯 这还挺有意思的
‪-死了 ‪-打中他了 完胜
‪好的 第二回合
‪人工智能的操作精确无比
‪我完全跟不上它的节奏
‪进入交战状态
‪这下你完了
‪击中他了!
‪我又被击中了
‪人工智能无所畏惧
‪驾驶舱里存在 ‪人工智能所不具备的人类情感
‪我们的人工智能 ‪研究出了一种更有趣的战略
‪我们称之为“打脸”
‪人类通常会想要从后面射击
‪因为对方会很难闪避
‪他们不会尝试正面射击 ‪因为这就是在玩“胆小鬼博弈”
‪当我们相向飞行 从900米到150米
‪可能只是眨眼之间
‪撞机的概率很高 ‪所以人类不会这样尝试
‪而人工智能不会怕死 ‪除非我们给它怕死的指令
‪感觉像是在和人类对战
‪不过是个完全不顾安危的人类
‪最后这一下他逃不了了
‪他不够时间反应
‪晚安
‪我死了
‪知道我也许不是
‪执行这项任务的最佳选择
‪知道某一天我或许会被这玩意儿取代 ‪感觉有些受挫
‪同样的1830米和能见度
‪偏移1000
‪有这个人工智能飞行员来指挥战斗机
‪它会毫不留情地追求胜利
‪这不仅仅是悬殊巨大的胜利
‪还是:“好吧 我们要如何把那个 ‪加到我们的飞机上?” 就是这么厉害
‪让人工智能 ‪驾驶F-16的期待是很现实的
‪而且指日可待
‪如果和一个胜率为 ‪99.99999%的人工智能飞行员对决
‪那你毫无胜算
‪当想到一个人工智能飞行员 ‪已经战无不胜时
‪我就会想到一支由50或100个
‪或1000个人工智能飞行员 ‪组成的战队能有何种成就
‪“无人机战群”是一支 ‪由高度智能且互相协作的飞行器
‪组成的战队
‪它们会分享如何行动 ‪如何解决问题的相关信息
‪“无人机战群” ‪将赋予我军和我们的盟军
‪扭转乾坤的能力
‪(内布拉斯加州 林肯)
‪目标已锁定 无人机正在追踪他
‪好的 准备降落
‪我们目前对无人机战群的研究 ‪首要目标
‪是将大量的无人机部署到
‪一个人力难及或高危区域的上空
‪陆军研究实验室 ‪一直在支持着这一研究项目
‪如果你想知道某一地点里面有什么
‪但又很难抵达那个地区 ‪或者该区域范围太大
‪那么部署一支无人机战群 ‪自然就成为了
‪扩大个体搜索范围
‪收集任务相关重要情报的手段
‪目前 在我们的无人机战群部署中
‪我们基本上只会给出一个单一命令 ‪去追踪某一特定目标
‪然后无人机 ‪就会自己去完成这些所有动作
‪人工智能让机器人们 ‪得以像动物集群一样以分散的方式
‪完成集体行动
‪在自然界的动物集群中 我们发现
‪没有首领 没有发号施令的主体动物
‪这种行为是由每个动物 ‪遵循着一些简单的规则
‪最终形成的
‪大家看到的这种集体行为 ‪就是这样产生的
‪自然界的动物集群最令人惊叹的一点
‪就是它们优雅的行动
‪仿佛它们天生就是这个群体的一部分
‪理想情况下 ‪我们希望我们的无人机战群
‪能像自然界中的动物集群那样
‪群策群力
‪我们得到的另一启发
‪是群落的可靠性与韧性
‪如果单个动物没有履行职责
‪那个集群也不会崩溃
‪就算其中一员掉队或失败
‪甚至未能完成任务
‪这个集群也会继续运转
‪这是我们最终想要达到的目标
‪在战斗中 我们需要识别敌机
‪过去 每个机器人 ‪都需要有一个人来操控
‪随着自主性的提升
‪我希望我们能做到
‪只需极少数人就能控制大量的机器人
‪我不认为1000架无人机 ‪是个无法企及的目标
‪因为每架飞机都将能自主行动
‪而天空是无边无际的
‪我们可以扩展学习...
‪我们通过模拟 ‪来研究无人机战群已经有段时间了
‪现在是时候用真机演练了
‪我们希望通过网络 ‪同时控制三个机器人
‪然后逐渐扩充队伍
‪我们想在较小的系统上进行测试
‪然后将同样的概念 ‪运用在更大的系统上
‪比如战斗机
‪我们进行过大量讨论
‪如何让一个排拥有一个营的战斗力
‪让一个营拥有一个旅的战斗力
‪利用无人机战群就能做到这一点
‪当你解锁了无人机战群的力量
‪那你就为军事进攻创造了
‪一种新的战略威慑
‪我觉得最令人振奋的就是 ‪如果我们行之得法
‪我们就能拯救许许多多的年轻男女
‪我们不再用人命
‪而是用机器来换取胜利
‪一些人认为自主武器会让战争更精确
‪更人性化
‪但其实我们很难预测
‪自主武器在未来会如何改变战争形态
‪这就像加特林机枪的发明一样
‪理查加特林是位发明家
‪他看到在南北战争中 ‪战士们负伤归来
‪他想找到让战争更人道的方法
‪通过减少参战士兵的数量
‪来减少战死的士兵数量
‪于是他发明了加特林机枪 ‪一种由曲柄转动
‪可以自动射击的自动枪
‪它使士兵们的火力 ‪有效地增加了一百倍
‪通常 想要让战争 ‪更精确、更人道的努力
‪可能会带来相反的效果
‪想想在农村地区 ‪一次错误的无人机袭击
‪会产生的影响
‪它会促使当地民众反对美国
‪反对当地政府 ‪而他们本应该都是好人
‪现在把程度扩大1000倍
‪一个廉价、可扩展
‪不需要人类操作的武器系统的创立
‪极大地改变了战争的实际障碍
‪一想到战争无处不在 ‪我们无需再承担战争带来的
‪人力和财政代价的世界 ‪我便夜不能寐
‪因为我们距离那些即将...
‪消逝的生命太过遥远了
‪这整件事深深困扰着我
‪我本来只是需要 ‪一个滥用人工智能的例子
‪实践这个思想实验 ‪所带来的意想不到的后果
‪已经远超出了预期
‪(药物研发中的人工智能: ‪避免弊大于利)
‪在我进行有关
‪人工智能技术 ‪制造的有毒分子的演讲时
‪听众们都惊掉了下巴
‪(排名前5000的化合物 ‪是已知的VX类似物)
‪接下来要决定的 ‪是我们是否应该发布这一信息
‪一方面 你想警告世界
‪要警惕这类能力 但另一方面
‪你并不想让那些 ‪从没想到过这一点的人得到灵感
‪我们最终认为它值得冒险发表
‪这样也许可以在这种类型的 ‪人工智能滥用发生前 找到方法
‪减少此类滥用
‪(人工智能药物研发的双重性)
‪(人工智能(AI)技术 ‪如何用于药物发现)
‪公众的普遍反应是震惊
‪我们可以在页面上看到统计 ‪有多少人浏览过文章
‪我们平常写的那些文章 如果...
‪在一年或几年间能有几千人 ‪阅读我们的文章 我们就很幸运了
‪一周之内有一万人阅读了那篇文章
‪然后是两万、三万、四万人
‪我们一天就有一万的阅读量
‪我们的文章被 ‪《经济学家》《金融时报》引用
‪“科普电台”联系了我们 ‪我听说过“科普电台”!
‪但随后 人们的反应开始失控了
‪我们看着那些推文 大家说: ‪“天啊 他们还能更恶劣点吗?”
‪他们为什么要这么做?
‪后来我们接到了一个意想不到的邀请
‪白宫内部对这篇文章进行了很多讨论
‪他们急切地想跟我们谈谈
‪显然 能和这种级别的人对话
‪是一种无上荣耀
‪但接着你会想到:
‪“天啊 这是白宫啊 是大首领”
‪这涉及到 ‪整理汇总开放源代码的数据...
‪经过约六小时 ‪该模型已经能生成约四万多个...
‪他们问你们需要多强大的计算机
‪我们告诉他们没什么特别要求
‪一台普普通通 ‪用了六年的苹果电脑就行
‪这让他们大吃一惊
‪那些负责研究化学战剂的人
‪还有政府机构 他们不了解这种潜力
‪我们得到了 ‪这本制作化学武器的食谱书
‪一旦它落入居心叵测的坏人手中
‪情况可能会变得非常可怕
‪大家必须坐下来好好听
‪我们必须采取措施 ‪要么规范这项技术
‪要么限制它 令其无法被滥用
‪因为它潜在的杀伤力...
‪骇人听闻
‪人工智能的伦理问题 ‪主要是由社会来解决
‪而不是靠工程师、 ‪技术专家、或数学家
‪我们带来的每一项技术 每一种创新
‪最终都落在了 ‪社会认为我们应该使用它的范畴
‪现在 国防部说:
‪“在战场上 ‪唯一能说我们要实施杀戮的
‪只有人类”
‪机器可以实施杀戮
‪但只能在人类操作员的命令之下
‪我认为这一点永远不会改变
‪他们向我们保证这种技术是安全的
‪但美国军方在无人机战争方面的声誉
‪并不值得信赖
‪因此 说到要在 ‪人工智能方面信任美国军方
‪我想说 过去的记录说明了一切
‪美国国防部关于让武器自主化的政策
‪并没有禁止任何一种武器系统
‪就算军方本身可能不想要自主武器
‪但我们也能看到他们 ‪将越来越多的决定权交给了机器
‪只为能追上竞争对手的步伐
‪这可能会促使军方将他们
‪并不想自动化的决策自动化
‪普京说过:“谁在人工智能领域领先 ‪谁就将统治世界”
‪习主席也明确表示过 ‪人工智能是中国想要成为主导的
‪头号技术之一
‪很显然 我们正处于一场技术竞赛中
‪你会听到人们谈论防护
‪我认为这确实是人们应该做的事
‪但争夺人工智能优势地位的竞赛 ‪是真实存在的
‪而我们的竞争对手 ‪不论是中国、俄罗斯、或者伊朗
‪都不会太在乎 ‪我们在人工智能方面的政策
‪你会看到越来越多 ‪关于人工智能政策的讨论
‪但我希望有越来越多的领导人会说:
‪“我们多快能搭建起这个东西?
‪我们快为它提供资源 ‪把它搭建起来吧”
‪(华盛顿)
‪(美国陆军协会年会暨展览会 ‪华盛顿)
‪(美国陆军)
‪我们现在是在 ‪美国陆军协会一年中最盛大的贸易展
‪基本上 所有向军方 ‪出售产品或技术的供应商
‪都会参加展览
‪廷德尔空军基地有四个我们的机器人
‪它们每周七天 ‪每天24小时都在基地巡逻
‪我们可以添加任何东西 ‪从摄像头到传感器 只要你需要
‪机械手臂 还是那句话 ‪只为达成客户心中所想
‪如果你的敌人 ‪引入了人工智能怎么办?
‪一个比你思考得更快 ‪反应比人类快的战斗系统
‪人类又能怎么办?我们必须未雨绸缪
‪我们训练我们的系统收集敌人的情报
‪管理敌方目标 ‪并由人类监督它的杀伤链
‪-将军您好 布兰登曾 ‪-您好吗?
‪很好 长官 您好吗?
‪我是想说 我们在人工智能 ‪飞行员身上的投入无人能及
‪我们的人工智能飞行员叫“蜂巢思维”
‪我们将它应用在了我们的四旋翼 ‪飞行器诺瓦身上 它能进入建筑内部
‪在特种作战部队和步兵部队之前
‪探清情况
‪我们将“蜂巢思维”用于V-BAT无人机
‪我在考虑组建数百个这样的战队
‪无论是在台湾海峡
‪还是在乌克兰 都能威慑我们的对手
‪我对此充满期待
‪-好的 谢谢您 ‪-谢谢您 将军
‪人工智能飞行员 ‪应该能在2025年 2030年普遍使用
‪它将迅速在世界各地的军队中普及
‪你要怎么对付 ‪罗马尼亚军队的无人机?
‪军事高科技
‪到目前为止 我们已经花了 ‪五亿美元来打造人工智能飞行员
‪未来的五年里 ‪我们还会再投入十亿美元资金
‪这正是我们在美国 ‪赢得创纪录项目的主要原因
‪厉害
‪非常惊人 ‪你们已经成功将它武器化了?
‪这个还没有被武器化
‪还没有 但未来会的
‪我们的客户认为它是一辆卡车 ‪而我们认为它是一辆智能卡车
‪它可以做很多不同的事情
‪-谢谢你 伙计 ‪-嗯
‪我一定会跟进你的情况
‪如果你十年后回来
‪你会看到人工智能 ‪和自主系统将主导整个市场
‪有人工智能 ‪和自主系统支持的武装力量
‪绝对会支配、碾压和摧毁 ‪没有人工智能和自主系统的武装力量
‪这就相当于马匹与坦克的对抗
‪刀剑与机关枪的对抗
‪完全不可同日而语
‪它将被普遍应用于战争的各个方面
‪在战术层面
‪在战略层面
‪以今天的人类无法理解的速度运行
‪指挥官们已经被过多的信息淹没了
‪来自卫星、无人机和传感器的图像
‪人工智能的其中一项能力
‪就是帮助指挥官们更高效地了解现状
‪然后思考: ‪“我需要做出怎样的决定?”
‪人工智能将考虑所有
‪决定战争方式的因素
‪出谋划策...
‪并为如何赢得战斗提出建议
‪(弗吉尼亚州 萨福克)
‪(洛克希德马丁创新中心)
‪在洛克希德马丁公司 ‪和我们的国防部客户一样
‪我们将人工智能视为指挥与控制的
‪关键技术推动力
‪传播速度平均为每秒0.6米
‪视野计约为283.3公顷
‪战争迷雾对于我们防御方来说 ‪确实是一种需要面对的现实
‪但它与处于自然环境中
‪又不得不针对野火 ‪做出决策也有相似之处
‪沃什伯恩大火就发生在瓦沃纳市北部
‪你必须借助并不完善的数据做出决策
‪那我们要如何让 ‪人工智能帮我们摆脱战争迷雾呢?
‪野火非常混乱
‪它们非常复杂
‪所以我们正在努力利用人工智能
‪来帮助我们做决定
‪“认知任务管理器” ‪是我们正在开发的一个程序
‪它会采集空中红外视频
‪然后通过我们的 ‪人工智能算法进行处理
‪从而预测火灾的未来状态
‪展望未来
‪“认知任务管理器”将借助模拟
‪在数千个循环中运行某些场景
‪从而给出效率最高的资源配置方案
‪以抑制高优先级区域火灾
‪它会说:“去这里 ‪用‘火鹰’进行空中压制
‪率领清理灌木的地面小组
‪以及喷水的消防队员
‪将他们拉到最高优先级的地区”
‪这些决策将能够更快
‪更有效地产生
‪我们认为 人工智能是唯一
‪能让人类跟上瞬息万变的环境的东西
‪洛克希德马丁公司的防御业务中
‪有很多与上述情况类似
‪军方不再只谈论使用人工智能
‪和单个武器系统 ‪来进行目标定位和杀伐决策
‪而是将人工智能整合到
‪整个军事决策架构中
‪陆军有一个 ‪名叫“项目融合”的大型项目
‪海军有“超配计划”
‪而空军有“先进作战管理系统”
‪国防部正在试图弄清楚
‪“我们要如何将这些板块拼凑在一起
‪让我们能比对手行动得更快
‪并获得真正的优势?”
‪人工智能战斗管理人 ‪将是一位级别相当高的将军
‪它会负责指挥战斗
‪协助对众多的军队下达指令
‪协调所有武器的行动
‪而且它的行动速度 ‪是任何人类都无法企及的
‪在过去的70年里
‪我们打造出了地球上最先进的军队
‪现在我们面临的决定是 ‪是否要把对基础设施的控制权
‪交给算法、交给软件
‪而这个决定带来的结果
‪可能会触发我们军事武库的全部力量
‪届时就不是一次广岛核爆 ‪而是成百上千次
‪现在是我们需要采取行动的时候了
‪因为控制这种风险的窗口 ‪正在迅速关闭
‪今天下午 我们首先讨论 ‪致命自主武器系统领域的
‪新兴技术
‪对国际安全所带来的挑战
‪联合国正在就致命自主武器的威胁
‪以及我们禁止使用人工智能
‪来选择和定位人员的系统进行讨论
‪技术专家之间的共识明确且坚决
‪我们反对以人类为目标的自主武器
‪多年来 各国其实一直在帮助
‪讨论致命自主武器系统这一问题
‪这关乎一种普遍的、共同的安全意识
‪当然 这并非易事
‪某些国家 尤其是那些军事强国
‪他们希望能够独占鳌头
‪这样他们才能领先于他们的对手
‪问题是 所有人都必须意见一致 ‪这样才能有所进展
‪反对的国家肯定会有
‪当然 美国和俄罗斯都明确表示
‪他们反对一项禁止自主武器的条约
‪当我们想到有多少人 ‪正致力于让人工智能变得更强大
‪那可谓是万头攒动
‪当我们想到有多少人 ‪在努力确保人工智能安全无害
‪那几乎可说是门可罗雀
‪但我还是非常乐观的
‪我会想到冷战时期
‪签署的《生物武器公约》此类的东西
‪虽然苏美两国剑拔弩张
‪但他们仍能意识到 生物武器的发展
‪既不符合他们的最佳利益
‪也不符合全世界的最佳利益
‪军备竞赛重视速度 而非安全
‪但我认为最重要的是要考虑到
‪到了一定程度 ‪过速发展的代价将变得过于高昂
‪我们不能孤立地发展某些领域
‪并将成果贸然投入使用 ‪毫不考虑它们未来可能走向何方
‪我们必须避免让原子弹爆炸
‪人工智能竞赛的风险十分巨大
‪我认为很多人并不珍惜
‪在过去75年中 ‪因为一支强大军事力量的存在
‪而为全球带来的这份稳定
‪因此 美国和我们的盟军
‪需要超越对手的人工智能技术
‪战争中没有第二名
‪中国制定了一项雄心勃勃的计划 ‪2030年成为AI领域的世界领导者
‪这场比赛 有人说美国已现败象...
‪你会加快采用人工智能技术
‪以确保我们在军事领域的竞争优势
‪我们正在快速发展这项技术
‪我认为尚不明确的是 ‪我们会走到多远?
‪是我们在控制技术 ‪还是它在控制我们?
‪我们没有重来一次的机会
‪精灵一旦从瓶子里出来 ‪它便不受控制
‪要把它塞回去会非常困难
‪如果我们现在不采取行动 ‪那一切可能就太迟了
‪也许现在已经太迟了